Datenethik: Projekt #algorules will Richtlinien für Programmierer*innen

Ärzt*innen haben den modernisierten hippokratischen Eid, für Journalist*innen gibt es den Pressekodex. Aber an welchen ethischen Richtlinien orientieren sich die Entwicklerinnen und Entwickler von Algorithmen? Schließlich wirkt sich ihr Handeln potentiell auch auf Fragen von Leben und Tod aus – etwa dann, wenn ihre Anwendung darüber entscheidet, wer ins Gefängnis kommt, ins Visier der Polizei gerät, einen Kredit erhält oder eine Chance auf Heilung bekommt. In all diesen Bereichen wird bereits heute maschinelles Lernen eingesetzt, also selbstlernende Algorithmen, die in großen Datenmengen nach Mustern suchen und auf dieser Basis Vorhersagen über die Zukunft treffen.

Das Projekt #algorules will deshalb einen Katalog von Kriterien entwickeln. Dahinter steht der Thinktank iRights.Lab im Auftrag der Bertelsmann Stiftung. Es ist nicht der erste Versuch dieser Art, in den USA gibt es schon verschiedene Aufschläge zu einem solchen Ethik-Kodex. #algorules hat sie als Grundlage genommen und mit einer Expert*innenrunde weiterentwickelt, darunter die ehemalige FDP-Justizministerin Sabine Leutheusser-Schnarrenberger und Stefan Ullrich von der Gesellschaft für Informatik. Folgende acht Kriterien kamen dabei heraus:

1. Kompetenz aufbauen: Die Funktionsweisen und Wirkungen von Algorithmen müssen verstanden werden.
2. Verantwortung zuweisen: Für die Wirkungen eines algorithmischen Systems muss eine natürliche Person verantwortlich sein.
3. Ziele und erwartete Wirkung nachvollziehbar machen: Die Ziele und die erwartete Wirkung eines Algorithmus müssen nachvollziehbar gemacht werden.
4. Sicherheit gewährleisten : Der Einsatz von algorithmischen Systemen muss sicher sein.
5. Transparenz erhöhen: Der Einsatz eines algorithmischen Systems muss gekennzeichnet sein.
6. Beherrschbarkeit sichern: Der Einsatz von algorithmischen Systemen muss beherrschbar sein.
7. Wirkung überprüfen (lassen): Die Auswirkungen eines algorithmischen Systems auf den Menschen müssen regelmäßig überprüft werden.
8. Korrigierbarkeit herstellen: Entscheidungen eines Algorithmus dürfen nie unumkehrbar sein.:

Feedback für die Algorithmenethik

Im nächsten Schritt soll der Katalog einem ersten Test unterzogen werden. Seit Montag läuft eine Online-Umfrage, an der sich alle beteiligen und eigene Einschätzungen zu dem bisher Erarbeiteten abgeben können – unabhängig davon, ob sie selbst Algorithmen entwickeln oder mit diesen arbeiten. „Wir hoffen, so einen möglichst breiten Einblick in die Entwicklung und Anwendung algorithmischer Systeme zu erlangen und eine Anwendbarkeit und Verbindlichkeit der erarbeiteten Kriterien zu erreichen“, schreibt Projektleiterin Carla Hustedt. Wer also am algorithmischen Eid mitwirken möchte: Die Umfrage läuft noch bis zum 21. Dezember.

Ob dann in Zukunft Absolvent*innen der Informatik auch den Eid ablegen? „Bei meiner Aufnahme in den programmierenden Berufsstand gelobe ich feierlich: mein Leben in den Dienst der Menschlichkeit zu stellen.“